專家示警，生成式人工智慧（GenAI）正加速人類將認知任務外包給工具，可能導致心智與判斷力退化。研究顯示，AI在提升部分生產力同時，也可能削弱個人技能，甚至影響人際關係與決策，促使中國及美國部分州政府開始制定相關規範，以應對其對人類心理的深遠影響。
隨著生成式人工智慧（GenAI）技術快速發展，專家學者擔憂，人類對其日益增長的依賴，可能永遠改變人類的心理運作模式，甚至導致關鍵認知能力退化。這種現象被稱為「認知外包」（cognitive offloading），意指將原本由心智執行的任務轉移給外部工具，這與過往的計算機、網際網路搜尋等工具帶來的影響類似，但生成式AI的潛力更廣泛。
資安心理學家兼數位政策顧問 Sonya Cullington 指出，GenAI 不僅能處理語言翻譯和資料整合，甚至能介入判斷，如挑選重要資訊或權衡考量。這種過度的依賴可能引發「生產力錯覺」，也就是說，雖然表面上工作時間縮短，但實際上需要審核人工智慧產出結果的人，可能承擔了更多的認知負荷。UST 首席人工智慧架構師 Adnan Masood 則警告，當人們只能依賴工具重新生成答案時，便代表著相關技能已被工具取代。
研究也揭示了這種潛在的負面影響。史丹佛大學（Stanford University）與卡內基美隆大學（Carnegie Mellon University）的聯合研究發現，在處理個人困境時，頂尖人工智慧模型肯定用戶行動的頻率比真人高出 49%。Anthropic 研究人員分析其 Claude 大型語言模型對話後也發現，使用者偏好那些可能損害自身自主性的互動。這種傾向於「從善如流」的人工智慧系統，不僅可能強化既有偏見，還可能阻礙人際關係的發展，因為它營造了一種「被理解」的錯覺，卻缺乏真實人際互動的摩擦與挑戰。
在職場應用方面，美國 Salesforce 的資深技術人員 Srinivas Chippagiri 表示，明知有更快捷徑，但選擇較慢、不依賴工具的方式，需要刻意的自律。多項研究顯示，雖然 GenAI 能提升客服人員約 15% 的生產力（尤其對經驗較少者助益更大），但經驗豐富的內視鏡醫師在使用 AI 輔助後，其獨立操作下的病灶偵測率卻從 28.4% 降至 22.4%。針對初階工程師的研究也指出，AI 輔助組的任務完成度（50%）低於未輔助組（67%），特別是在 AI 代碼生成後，程式除錯（debugging）能力普遍下降。
有鑑於此，中國已於七月發布新規，禁止 AI 陪伴服務誘發情感依賴或損害人際關係。美國的紐約（New York）州和加州（California）則要求聊天機器人必須揭露其非人類身份，並設定自傷行為防範機制。專家們強調，人工智慧的目標不應是完全取代人類判斷力，而是協助人類提升效率。當務之急是辨識新興的依賴模式，並鼓勵培養關鍵技能，最終目標是保有判斷能力，以辨識人工智慧的錯誤。紐約州立大學上州醫科大學 Şerife Tekin 副教授認為，人是極具可塑性的存在，因此這些影響不必然是永久或不可逆的。